WRR-voorzitter Corien Prins: ‘Politiek heeft nog niet voldoende oog voor gevolgen van AI en de gevaren van digitale ontwrichting’

Een parkeerboete confronteerde Corien Prins nog eens met de dilemma’s van digitaal burgerschap. Ze had de app van de gemeente Tilburg gebruikt om haar auto netjes volgens de regels te parkeren. Toch kreeg ze een boete: een verkeersbord verderop in de straat hanteerde andere tijden.

Welke regels golden er nou, de fysieke of de digitale? Prins liet het er niet bij zitten en maakte bezwaar. Ze kreeg uiteindelijk gelijk bij de Hoge Raad. Maar daarna begon de gemeente te steggelen met het bedrijf dat de app maakte en beheert, wie haar proceskosten nu moest vergoeden. Prins: „Het is een alledaags voorbeeld, maar het laat het probleem met digitalisering zien: de overheid besteedt veel te veel uit en de verantwoordelijkheden zijn onduidelijk.”

Prins (1961) is hoogleraar recht en informatisering aan de Universiteit Tilburg en voorzitter van de Wetenschappelijke Raad voor het Regeringsbeleid (WRR), die al in 2021 een rapport uitbracht over kunstmatige intelligentie. Prins maakt zich grote zorgen over het gebrek aan inbedding van AI en digitalisering bij de overheid, bedrijven en organisaties. De AI-wet die het Europees Parlement vorige maand heeft aangenomen is, zegt ze, „broodnodig”.

Lost die wet het gebrek aan regulering op dat de WRR signaleerde?

„De AI Act pakt een aantal kwesties aan, maar lang niet alles. Dat kan ook niet, de wet is gericht op het indelen van AI-applicaties naar risicogroepen en stelt daar voorwaarden bij. Ook komt er een verbod op real time gezichtsherkenning. Maar het gaat bijvoorbeeld niet over consumentenbescherming, juridische aansprakelijkheid, digitale archivering. Dat zijn cruciale kwesties die nog blijven liggen.”

Wat is het belangrijkste aan de wet?

„Dat Europa een heel helder signaal geeft: tot hier en niet verder. Natuurlijk leefden we al niet in rechteloosheid, maar het beschikbare juridische instrumentarium werkt op zichzelf onvoldoende om de effecten op te vangen van deze systeemtechnologie. Waar liggen de grenzen? Die zorgen van mensen zijn terecht. En dan gaat het breed over digitalisering. Gezichtsherkenning gaat bijvoorbeeld niet alleen om het identificeren van een individu, maar ook om het aanwijzen van die persoon in een groep. Je legt meteen een verband met personen in zijn omgeving. Zo kun je heel veel te weten komen over mensen. Dat is onderbelicht gebleven, maar ik vind het een extra argument om heel voorzichtig te zijn met die techniek.”

De Raad van Europa werkt aan een verdrag over AI en mensenrechten. Kan dat nog iets toevoegen?

„Ja, zeker. Dat verdrag richt zich op mensenrechten, rechtsstaat en democratie bij AI en beoogt een mondiaal instrument te bieden. Het kan van groot belang zijn. De Raad van Europa heeft een verdrag opgesteld voor de bescherming van persoonsgegevens, dat was het eerste in zijn soort en is wereldwijd cruciaal gebleken. Met AI zijn ze nu bezig, maar het is nog pril.”

Wat schort er nu aan bij de overheid? U vindt dat die meer verantwoordelijkheid moet nemen.

„De Nederlandse politiek is nog onvoldoende sensitief voor de fundamentele veranderingen die te maken hebben met AI en de gevaren van digitale ontwrichting. Op ambtelijk niveau zit het redelijk tussen de oren, merk ik in Den Haag. Maar op politiek niveau moet er meer gebeuren dan slechts wat ad-hocstappen. Er is nu wel een tweede golf van aandacht voor het WRR-rapport over AI, dat zien we onder meer in uitnodigingen voor gesprekken met parlementariërs.”

Hoe komt dat? Door ChatGPT?

„Ja, zo simpel is het. Het komt nu bij mensen hun leven binnen en dan wordt dat rapport uit de kast getrokken. We merkten dat ook bij ons eerdere rapport over digitale ontwrichting. Die boodschap was nogal ingewikkeld over te brengen, totdat de Universiteit Maastricht plat ging, en de gemeente Hof van Twente. Toen sloeg het om. Dat was hard nodig, we staan echt voor enorme kwetsbaarheden als digitale systemen uitvallen. Dat besef is er nog onvoldoende.”

Wat zou er moeten gebeuren?

„Faciliteren, maar ook voorwaarden stellen en soms een streep trekken, dus: verbieden. Toen we massaal auto gingen rijden is er ook over nagedacht hoe we dat veilig konden doen. We hebben er gordels ingezet, er kwam APK-keuring, het wegennet is op orde gehouden, et cetera. Voor die opgave staan we nu weer.

„Honderd procent veiligheid krijg je nooit, maar als de digitale brand uitbreekt moet je weten waar de nooduitgang is, waar de brandblusser hangt en wie je moet bellen. Dat is nu allemaal onduidelijk. Kan een ziekenhuis na een digitale crash nog door? Van wie zijn we afhankelijk? Hoe wordt digitaal verkeer van departementen en overheidsinstanties opgeslagen en waar eigenlijk?”

Wat zou een goede eerste stap zijn?

„Verplicht overheidsinstanties om een cyber-afhankelijkheidsbeeld te maken. Dat helpt bij digitale ontwrichting. Denk bij het stimuleren van AI ook na over je ‘digitale identiteit’ als land, wat de typisch Nederlandse onderwerpen zijn die aandacht nodig hebben. Wij hebben de landbouw als cruciale sector. Maar onze tractors, dat zijn gewoon iPads op wielen. Die verzamelen allerlei data over de grondbewerking en het bedrijf waar ze werken. Voor je het weet zit die informatie aan de overkant van de oceaan bij Big Tech. Over die nieuwe digitale machtsverhoudingen moeten we nadenken.”

Lees ook: Volop ontwikkelen aan AI én ervoor waarschuwen. Hoe oprecht zijn de waarschuwingen van techbazen?

Wat vindt u van de recente petitie van bezorgde oud-politici, wetenschappers en schrijvers, die de overheid vragen AI te beteugelen? U bent niet een van de ondertekenaars.

„Ik vind het een goed initiatief omdat het de overheid oproept om in actie te komen. Maar ik ben wel wat bezorgd dat het afleidt van de bredere effecten van digitalisering en mogelijke ontwrichting. Eerst zaten we allemaal op privacy, nu duikt iedereen op AI, en dreigen we de rest te vergeten.”

Internet-pionier Marleen Stikker vond de petitie te negatief, overdreven angstig. Moet je daar niet ook voor oppassen?

„Dat ben ik volstrekt met haar eens. Er is ook heel veel goeds aan AI, er liggen bijvoorbeeld belangrijke kansen voor de zorg. Maar bij de overheid zie ik onvoldoende nuchterheid. Soms zijn de verwachtingen enorm groot, op andere terreinen zit de overheid in een kramp. Dat komt onder meer doordat de rechter in 2020 oordeelde dat het systeem voor fraudebestrijding SyRI in strijd was met de mensenrechten. Dat heeft geleid tot een angstcultuur rond dit soort technologie. De toeslagenaffaire kwam daar nog eens overheen. Geen algoritmes meer gebruiken! Maar dan schieten we weer door naar de andere kant. Deze ontwikkelingen vragen om nuchterheid.”

Er is nu een staatssecretaris voor Digitale Zaken. Is dat zwaar genoeg ?

„Ik ben blij dat die er is, maar je kunt je natuurlijk afvragen wat de doorzettingsmacht van een staatssecretaris is als het gaat om een technologie die alle beleidsterreinen raakt. Er is ook nog een minister van Economische Zaken en een minister van Landbouw. Wij hebben vanuit de WRR gezegd dat het benoemen van een minister voor digitale zaken in elk geval niet onze eerste aanbeveling is. Het gaat meer om oog krijgen voor wat er moet gebeuren dan om de poppetjes en hoe je die dan noemt.”

Wat kan de wetenschap betekenen?

„De brug tussen wetenschap en beleid moet veel steviger. Dat hoeft niet geformaliseerd te worden in weer een nieuwe instelling of afdeling, het gaat vooral om competenties. We spreken elkaars taal niet, we kennen elkaar niet. Beleid adviseren zou niet iets moeten zijn dat je er als wetenschapper even bij doet, het is een ambacht. Je moet een insider zijn en stevig in je schoenen staan. Voor een jonge promovendus is dat heel ingewikkeld, dus waar ik voor pleit is veel meer investeren in het leren van vaardigheden, contacten leggen, elkaars wereld leren kennen en de taal leren spreken.”

De Raad voor Openbaar Bestuur signaleerde recent een gebrek aan expertise bij de overheid.

„Er kan een tandje worden bijgezet, laat ik het zo zeggen. Er is niet alleen een gebrek aan vakkennis, maar ook aan sensitiviteit. Je kunnen verplaatsen in de ander, of dat nu een burger of een uitvoeringsorganisatie is. En problematisch is dat er door de overheid zo ongelooflijk veel wordt uitbesteed. Bedrijven voeren allerhande overheidstaken uit, zoals bij de inzet van het mogelijk discriminerende algoritme door DUO dat vorige week door minister Dijkgraaf in de ban werd gedaan. Dat zou echt minder moeten. Maar ja, heel veel ambtenaren zijn een groot deel van hun tijd bezig met het beantwoorden van Kamervragen of Woo-verzoeken. Die komen tot weinig anders meer. Dat zijn Haagse mechanismen die ik graag zou zien veranderen.”

Wat hoopt u?

„Ik hoop dat de overheid de ogen opent.”